Mặc dù chi tiết của chính quyền địa phương đã thay đổi theo thời gian, hệ thống phân tầng hai cấp chính (tỉnh và hạt) hiện nay về cơ bản cũng tương tự với giai đoạn trước cuộc cải cách hành chính phế phiên, lập huyện năm 1871 của Chính quyền Minh Trị. Trước khi bãi bỏ các phiên, Nhật Bản được chia thành nhiều tỉnh (国 (quốc), kuni?) rồi được phân thành các huyện (郡 (quận), gun?) và dưới cùng là xã (郷/里 (hương/lí), sato?).